#QWen QWQ

杀马特副教授

3个月前

最近辛顿认为开源的deepseek大模型类似把核武器给了普通人。先不说这个比喻合不合理，其实这个比喻的背后有个更根本的问题：“谁有资格拥有核武器”？ deepseek的模型是开源的，但是训练模型的方法并没有全部开源，到目前为止，利用deepseek提供的思路训练出来的大模型比如QWen QWQ，能够思考，“有点意思”，但是又“差点意思”。不过客观的说，现在基于transformer lens （透镜）技术来考察的deepseek 并没有发现有什么特别的神秘技术。各种越狱版也工作正常。一定要认为大模型只能掌握在少数人手中的想法其实问题很大。

#辛顿 #核武器 #DeepSeek #开源 #QWen QWQ #transformer